Friar Tech: Най-добрият експерт по етиката на ИИ във Ватикана, който съветва папа Франциск, ООН и Силиконовата долина

Може да наподобява като оксиморон, само че основният мозък на Ватикана по отношение на технологията, която сега най-вече оформя нашия свят, идва от средновековния ред.

Отец Паоло Бенанти носи елементарните кафяви одежди на своя феодален францискански медал, до момента в който преследва един от най-належащите проблеми в съвремието: по какъв начин да управляваме изкуствения разсъдък (AI), тъй че да обогатява - и да не експлоатиране - животите на хората.

Бенанти е индивидът, който Ватикана се обръща към технологията и той има ухото на папа Франциск, както и на някои от най-хубавите инженери и ръководители на Силиконовата котловина.

С опит в инженерството, докторска степен по морална теология и пристрастеност към това, което той назовава „ нравственос на технологиите “, 50-годишният италиански духовник е на незабавна задача, която споделя с Франциск, който в своята годишно спокойно обръщение за 2024 година, упорства за интернационален контракт, който да подсигурява етичното потребление на AI технологията.

„ Каква е разликата сред човек, който съществува и машина, която действа? " сподели Бенанти в изявление за Асошиейтед прес по време на отмора в Папския Григориански университет, където преподава курсове като морална теология и биоетика на студенти, подготвящи се за свещеничеството.

„ Това е може би най-големият въпрос на тези времена, тъй като сме очевидци на предизвикателство, което всеки ден става все по-дълбоко с машина, която хуманизира. “

Съветник по AI

h2>

Бенанти е член на Консултативния орган на Организация на обединените нации по изкуствен интелект, както и началник на италианска държавна комисия, натоварена с даването на рекомендации по какъв начин да се защищити публицистиката от подправени вести и друга дезинформация.

Той също по този начин е съветник на Папската академия за живота на Ватикана.

Проблемът не е в потреблението на [AI], а в ръководството. И тук се намесва етиката – намирането на вярното равнище на приложимост в обществен подтекст.

Бенанти споделя, че оказва помощ за „ по-доброто изясняване на по-техническите термини за Светия отец “ по време на техните срещи.

Неговите познания бяха потребни за среща през 2023 година във Ватикана сред Франциск и президента на Microsoft Брад Смит, която се концентрира върху това по какъв начин изкуственият разсъдък може да помогне или да навреди на човечеството.

Франсис и Смит също бяха разискали изкуствения разсъдък „ на службата на общото богатство " по време на среща няколко години по-рано, съгласно Ватикана.

С папството, което е мощно деликатно към тези, които живеят в периферията на обществото, Франциск даде ясна угриженост, че AI технологията може ограничение на правата на индивида посредством, да речем, негативно влияние върху молбата за ипотека на покупател на жилище, молбата за леговище на мигрант или оценката на вероятността нарушителят да повтори закононарушение.

" Ясно е, че в случай че изберем някои данни, които са Ако сме задоволително приобщаващи, ще имаме някои избори, които не са приобщаващи “, сподели Бенанти, чийто набожен медал е учреден при започване на 13 век от Свети Франциск от Асизи, който се отхвърля от земните благосъстояния и предизвиква благотворителните действия.

Изследователите откриват, че AI моделите могат да бъдат подготвени да бъдат лъжливи с „ неефективни “ защитни парапети

Microsoft за първи път се свърза с Бенанти преди няколко години за мислите му по отношение на технологиите, сподели монахът.

През 2023 година Смит направи подкаст с Бенанти в Рим, описвайки монахът като донесъл „ една от най-завладяващите комбинации в света “ във връзка с неговия опит в инженерството, етиката и технологиите на Дебат за ИИ.

Намиране на верните приложения на ИИ

Бенанти, който не съумя една година да получи инженерната си степен в Римския университет Сапиенца, когато изостави дипломата - а също и приятелката си - да се причисли към францисканците на 20-те си години, разказа по какъв начин изкуственият разсъдък може да бъде „ в действителност мощен инструмент “ за понижаване на цената на медицината и овластяване на лекарите да оказват помощ на повече хора.

Но той също по този начин разказа етичните последствия от технология, която би могла да има същите качества като индивида - или може би даже повече.

" Това е проблем не в потреблението на [AI], а в ръководството ", сподели монахът. " И тук идва етиката – намирането на вярното равнище на приложимост в обществен подтекст ".

Бенанти означи че огромна част от данните, които осведомят AI, се подават от служащи с ниски заплати, доста от които в разрастващи се страни, вкопани в история на колониализъм и експлоатирана работна мощ.

„ Не желая това да се помни като сезон, в който извличаме когнитивни запаси от световния Юг ", сподели той.

Ако някой изследва „ най-хубавите принадлежности, които произвеждаме в AI “ на Запад, ще види, че AI е „ подготвен с нископлатени служащи от англоговорящи някогашни колонии “.

Как да управляваме AI е проблем, който страните по целия свят се пробват да разрешат. Европейският съюз стана пионер в края на предходната година, когато договарящите осигуриха договорка, която проправя пътя за юридически надзор върху AI технологията.

В Италия министър председателят Джорджия Мелони, която се тормози, че AI може да докара до загуба на работни места, ще направи технологията фокус на тазгодишната среща на върха на Г-7, хазаин на която е Италия.

Като част от тези старания, Мелони в четвъртък се срещна с гостуващия създател на Microsoft Бил Гейтс в Рим, среща, на която участва Бенанти.

От своя страна монахът сподели пред AP, че регулирането на изкуствения разсъдък не би трябвало да значи ограничение на неговото развиване.

p> „ Това значи да ги поддържаме съвместими с тази нежна система, която е демокрацията, която през днешния ден наподобява е най-хубавата система “, сподели Бенанти.